Sau đó, Trương Hạo cố gắng đẩy Từ Ôn ra khỏi quân phủ, đi nhậm chức Chiết Tây[chú 11] quan sát sứ, song Nghiêm Khả Cầu thuyết phục Từ Ôn và Hoài Nam tiết độ phó sứ Lý Thừa Tự (李承嗣) rằng Trương Hạo có ý định muốn loại bỏ họ; sau đó Từ Ôn kiếm cớ để được ở lại Dương châu. Sau khi Trương Hạo thất bại trong một nỗ lực ám sát Nghiêm Khả Cầu, Nghiêm Khả Cầu và Từ Ôn lên kế hoạch lật đổ Trương Hạo. Sau đó, Từ Ôn thuyết phục được Tả giám môn vệ tướng quân Chung Thái Dương (鍾泰章) cùng tham gia vào âm mưu. Vào đêm ngày 18 tháng 6, Chung Thái Dương đem quân tiến vào nha đường, giết chết Trương Hạo cùng thân cận. Sau đó, Từ Ôn đổ tội ám sát Dương Ác cho một mình Trương Hạo, được Dương Long Diễn bổ nhiệm là Tả hữu nha đô chỉ huy sứ, xử lý quân phủ sự. Từ Ôn ủy thác việc quân cho Nghiêm Khả Cầu, ủy thác việc chi kế cho Lạc Tri Tường (駱知祥), và theo ghi chép thì cả Nghiêm Khả Cầu và Lạc Tri Tường đều có tài, Hoằng Nông được cai quản tốt. Bản thân Từ Ôn được mô tả là trầm nghị, tự phụng, và giản kiệm. Tuy không biết chữ, song khi phải quyết định về vấn đề pháp lý, ông sẽ bảo người khác đọc cho mình nghe trước khi quyết định theo tình và lý.[11]

Năm 909, do tin rằng Kim Lăng[chú 12] là một địa điểm chiến lược trong việc kiểm soát Trường Giang bằng chiến hạm, Hoài Nam hành quân phó sứ Từ Ôn tự lĩnh chức Thăng châu thứ sử, song khiển Nguyên Tòng chỉ huy sứ Từ Tri Cáo đi quản lý chiến hạm ở Kim Lăng, giữ chức Thăng châu đội sát kiêm Lâu thuyền phó sứ. Cũng vào năm đó, khi Phủ châu[chú 13] thứ sử Nguy Toàn Phúng (危全諷) (quy phục trên danh nghĩa cả Hoằng Nông và Hậu Lương) quay sang chống lại Hoằng Nông và xưng là Trấn Nam tiết độ sứ, theo đề xuất của Nghiêm Khả Cầu, Từ Ôn khiển Chu Bản (周本) suất quân đi đánh Nguy Toàn Phúng. Kết quả, Chu Bản đánh bại và bắt được Nguy Toàn Phúng, Hoằng Nông thôn tính Phủ châu.[4]

Năm 910, Vạn Toàn Cảm (萬全感) trở về Dương châu sau khi đi sứ sang Tấn và Kỳ, người này tuyên bố rằng Kỳ vương Lý Mậu Trinh "thừa chế" phong cho Dương Long Diễn tước Ngô vương, do vậy Hoằng Nông từ nay được gọi là Ngô.[4]

Cũng vào năm 910, mẹ của Từ Ôn là Chu thị qua đời. Khi các tướng lại chuẩn bị lễ tế, họ cho làm một tượng người bằng gỗ cao vài thước, mặc gấm, định đốt tượng gỗ để tế. Từ Ôn chỉ ra rằng gấm nên được trao cho người nghèo thay vì đem đốt. Ông chính thức rời khỏi triều đình để chịu tang mẹ, song không lâu sau đó, Dương Long Diễn chính thức triệu ông về, phục vị Nội ngoại mã bộ quân đô quân sứ, lĩnh Nhuận châu[chú 14] quan sát sứ.[4]

Việc Từ Ôn tiếp tục nắm quyền cai quản quân chính khiến cho một số tướng lĩnh cao cấp của Ngô bất bình: Trấn Nam tiết độ sứ Lưu Uy (劉威), Thiệp châu [chú 15] quan sát sứ Đào Nhã (陶雅), Tuyên châu[chú 16] quan sát sứ Lý Ngộ (李遇), và Thường châu[chú 17] thứ sử Lý Giản (李簡), họ đều có công lao và địa vị cao hơn trong quân đội so với Từ Ôn khi Dương Hành Mật còn sống. Khi quán dịch sứ Từ Giới (徐玠) đi sứ sang Ngô Việt, Từ Ôn lệnh cho Từ Giới dừng lại ở Tuyên châu, cố thuyết phục Lý Ngộ đến Quảng Lăng yết kiến Dương Long Diễn, song không thành công. Khi Từ Ôn biết tin, ông ta tức giận và khiển Đô chỉ huy sứ Sài Tái Dụng (柴再用), cho Từ Tri Hạo làm phó, suất binh lính bốn châu: Thăng, Nhuận, Trì, Thiệp đi tiến công Tuyên châu. Từ Ôn sau đó sai điển khách Hà Nhiêu (何蕘) nhân danh Dương Long Diễn nói: "Nếu Công dứt khoát quyết tâm làm phản, thỉnh trảm Nhiêu để thể hiện, nếu không thì theo Nhiêu ra khỏi thành." Lý Dục sau đó đầu hàng nhưng Từ Ôn vẫn lệnh cho Sài Tái Dụng xử tử Lý Dục cùng gia quyến. Sau sự việc này, các quan lại khác không dám phản đối Từ Ôn nữa[12]

Từ Ôn cũng nghe được lời đồn rằng Lưu Uy có kế hoạch chống lại ông, vì thế chuẩn bị thảo phạt Lưu Uy. Lưu Uy cố gắng xua tan nghi ngờ bằng việc tiến về Dương châu cùng với Đào Nhã, yết kiến Dương Long Diễn. Từ Ôn hậu đãi Lưu Uy và Đào Nhã, rồi cùng với họ đến gặp Lý Nghiễm và đề nghị Lý Nghiễm "thừa chế" trao cho Dương Long Diễn chức Thái sư và Ngô vương. Từ Ôn lĩnh Trấn Hải tiết độ sứ, Đồng bình chương sự (tể tướng trên danh nghĩa), Hoài Nam hành quân tư mã. Sau đó, ông khiển Lưu Uy và Đào Nhã hoàn trấn, thể hiện rằng ông không nghi ngờ họ.[12]

Năm 913, Ngô Việt vương Tiền Lưu, khiển các nhi tử Tiền Truyền Quán, Tiền Truyền Liệu (錢傳鐐), và Tiền Truyền Anh (錢傳瑛) tiến công Thường châu[chú 18] của Ngô, họ chiến bại trước quân Ngô do Từ Ôn và tướng Trần Hựu (陳祐) thống lĩnh, nhiều binh sĩ Ngô Việt tử chiến.[12]

Cũng vào năm 913, tướng Vương Cảnh Nhân của Hậu Lương tiến hành chiến dịch chống Ngô, tiến đến Thọ châu và Lư châu.[12] Từ Ôn và Bình Lô tiết độ sứ Chu Cẩn (朱瑾) suất chư tướng cự chiến, kết quả giành được chiến thắng, gây thương vong lớn cho quân Hậu Lương.[13]

Năm 915, Từ Ôn bổ nhiệm trưởng tử là Nha nội đô chỉ huy sứ Từ Tri Huấn (徐知訓) làm Hoài Nam hành quân phó sứ, Nội ngoại mã bộ chư quân phó sứ. Sau đó, Từ Ôn bổ nhiệm mình là Quản nội thủy lục mã bộ chư quân đô chỉ huy sứ, Lưỡng Chiết đô chiêu thảo sứ, thủ Thị trung, phong tước Tề quốc công, trấn Nhuận châu và tuần thuộc 6 châu: Thăng, Nhuận, Thường, Tuyên, Thiệp Trì; để Từ Tri Huấn ở lại Quảng Lăng (Dương châu) bình chính, vẫn là người quyết định việc quân chính của Ngô như trước. Năm 917, Từ Ôn chuyển căn cứ đến Thăng châu, bổ nhiệm Từ Tri Cáo là Nhuận châu thứ sử.[13]

Trong vài năm sau đó, Từ Tri Huấn dần dần tăng cường quyền lực, song lại tỏ ra ngạo mạn với các quan lại khác và thậm chí còn bất kính với Ngô chủ Dương Long Diễn. Năm 918, Chu Cẩn tiến hành binh biến, giết chết Từ Tri Huấn, song đến khi bị Trạch Kiền (翟虔) bao vây, Chu Cẩn tự sát. Từ Tri Cáo nhanh chóng vượt Trường Giang đến Dương châu để ổn định tình hình, Từ Ôn đến sau và quyết định giết chết Lý Nghiễm và Mễ Chí Thành (米志誠) do tin rằng hai người này đồng mưu với Chu Cẩn. Từ Ôn còn muốn đồ sát toàn bộ các quan lại mà ông nghi ngờ là đồng đảng với Chu Cẩn, song sau khi được Từ Tri Cáo và Nghiêm Khả Cầu thông báo về thái độ ngạo mạn của Từ Tri Huấn, Từ Ôn dừng truy cứu. Do toàn bộ các nhi tử đều còn trẻ, Từ Ôn cho Từ Tri Cáo ở lại Dương châu thay thế vị trí của Từ Tri Huấn, còn ông trở về Thăng châu.[14]

Trong khi đó, Từ Ôn lệnh cho tướng Lưu Tín (劉信) suất quân đi tiết công Bách Thắng[chú 19] tiết độ sứ Đàm Toàn Bá (譚全播) — người trên danh nghĩa quy phục cả Ngô và Hậu Lương — nhằm thôn tính Bách Thắng. Lưu Tín có thể đẩy lui quân cứu viện của Ngô Việt, Sở vương Mã Ân, và Mân vương Vương Thẩm Tri, song không thể chiếm được thủ phủ Kiền châu (虔州) của Bách Thắng. Do đó, Lưu Tín cầu hòa với Đàm Toàn Bá, song Từ Ôn khi được Lưu Tín thông báo thì tức giận và khiển Lưu Ngạn Anh (劉英彥)- nhi tử của Lưu Tín- suất 3.000 quân và nói với Lưu Ngạn Anh rằng: "Phụ thân ngươi ở trên đất thượng du, lại có binh lính đông gấp 10 lần, nếu như không thể hạ được một thành thì là làm phản. Ngươi có thể đem số binh này đến cùng phụ thân ngươi làm phản" Khi Lưu Ngạn Anh đến doanh trại của Lưu Tín và truyền lại lời của Từ Ôn, Lưu Tín trở nên lo sợ và quyết định lại bao vây Kiền châu. Cuối cùng, Kiền châu thất thủ, Lưu Tín bắt được Đàm Toàn Bá, Bách Thắng quân về tay Ngô.[14]

Trong khi đó, Nghiêm Khả Cầu chỉ ra rằng Hậu Lương liên tiếp chiến bại dưới tay Lý Tồn Úc- đang chuẩn bị xưng là hoàng đế Đường, còn Ngô do vẫn xưng là chư hầu của triều Đường thì nay cần khẳng định sự độc lập về chính trị, Từ Ôn nghe theo ý của Nghiêm Khả Cầu và cố gắng thúc giục Dương Long Diễn xưng đế trước. Năm 919, Dương Long Diễn xưng là Ngô quốc vương và bắt đầu thi hành lễ tiết hoàng đế. Từ Ôn được bổ nhiệm làm Đại thừa tướng, Đô đốc trung ngoại chư quân sự, chư đạo đô thống, Trấn Hải-Ninh Quốc tiết độ sứ, thủ Thái úy, kiêm Trung thư lệnh, phong tước Đông Hải quận vương.[14]

Cuối năm 919, Ngô Việt lại tiến công Thường châu, Từ Ôn đích thân suất quân cự chiến mặc dù khi đó ông đang bị bệnh. Kết quả, Từ Ôn đánh bại quân Ngô Việt ở Vô Tích và bắt được nhiều tù binh Ngô Việt. Sau chiến thắng, Từ Tri Cáo chủ trương đánh chiếm Tô châu[chú 20]. Tuy nhiên, Từ Ôn, nói rằng ông muốn để người dân nghỉ ngơi, và quyết định phóng thích các tù binh Ngô Biệt, đề xuất thiết lập hòa bình lâu dài với Tiền Lưu. Tiền Lưu chấp thuận và cũng phóng thích các tù binh Ngô, trong 20 năm sau đó giữa hai nước không có chiến tranh. Trong khi đó, cả Từ Ôn và Dương Long Diễn đều viết thư cho Tiền Lưu để thuyết phục người này tuyên bố độc lập với Hậu Lương, song không có kết quả. Từ Ôn lúc này cũng nghe được tin rằng tam đệ của Dương Long Diễn là Lư Giang quận công Dương Mông (楊濛) than thở về việc Dương gia bị mất thực quyền, do vậy trở nên cảnh giác Dương Mông;[14] Từ Ôn do đó khiển Dương Mông ra ngoài kinh thành, đi nhậm chức Sở châu[chú 21] đoàn luyện sứ.[15]

Mặc dù tuyên bố độc lập theo ý của Từ Ôn, song Dương Long Diễn không hài lòng trước việc này, và sau đó ông ta uống nhiều rượu rồi bị ốm. Năm 920, do bệnh tình của Dương Long Diễn rất xấu, Từ Ôn trở về Dương châu. Một số thuộc hạ đề xuất ông nên soán vị, song ông từ chối. Thay vào đó, Từ Ôn bỏ qua Dương Mông, và ban chỉ nhân danh Dương Long Diễn để triệu tứ đệ là Đan Dương quận công Dương Phổ về Dương châu giám quốc (trên danh nghĩa). Dương Long Diễn sau đó qua đời, Dương Phổ trở thành quốc vương của Ngô.[15]